Beijing Zhihu Zhang Technology Co., Ltd. a annoncé le lancement de CogView4, le premier modèle open source de génération d'images à partir de texte capable de générer des caractères chinois. Ce modèle a obtenu le meilleur score global au benchmark DPG-Bench, devenant ainsi le modèle SOTA (State of the Art) des modèles open source de génération d'images. Il est distribué sous licence Apache 2.0, ce qui en fait le premier modèle de génération d'images à suivre cette licence.

Shenzhou Information a récemment annoncé l'intégration du grand modèle open source chinois DeepSeek afin de moderniser son offre complète de solutions financières. Cette initiative marque non seulement une évolution technologique, mais offre également aux clients bancaires un déploiement en environnement privé à faible coût et sécurisé. Grâce à l'intégration de DeepSeek, les neuf gammes de produits et plus de 30 solutions métier clés de Shenzhou Information ont bénéficié d'une amélioration globale de l'intelligence artificielle, couvrant de nombreux domaines tels que l'exploitation de la clientèle de détail, les canaux numériques, l'open banking, les opérations de crédit, l'intelligence des données et les plateformes d'entreprise.

L'équipe de recherche Google a récemment lancé TimesFM (modèle de base temporel) 2.0, un modèle pré-entraîné spécialement conçu pour la prévision de séries temporelles. Ce modèle vise à améliorer la précision des prévisions de séries temporelles et à promouvoir le développement de l'intelligence artificielle grâce à l'open source et au partage scientifique. Le modèle TimesFM 2.0 possède de puissantes fonctionnalités, capable de gérer la prévision de séries temporelles univariées jusqu'à 2048 points de données, et prend en charge n'importe quelle durée de prévision. Il est important de noter que, bien que la longueur maximale du contexte d'entraînement du modèle soit de 2048,

ByteDance a récemment publié LatentSync, un nouveau framework de synchronisation labiale visant à obtenir une synchronisation plus précise des lèvres grâce à un modèle de diffusion latent conditionnel à l'audio. Ce framework, basé sur Stable Diffusion, a été optimisé pour la cohérence temporelle. Contrairement aux méthodes précédentes basées sur la diffusion dans l'espace pixel ou la génération en deux étapes, LatentSync utilise une approche de bout en bout, sans représentation intermédiaire du mouvement, permettant de modéliser directement la relation complexe entre l'audio et la vidéo. Dans LatentSync,

Selon le First Financial News, Luo Fuli, développeuse clé du grand modèle open source DeepSeek-V2, va rejoindre Xiaomi pour diriger le laboratoire IA de Xiaomi et se charger de la construction de l'équipe de grands modèles. Cette nouvelle a suscité un vif intérêt, surtout au moment où Xiaomi prévoit de renforcer son déploiement dans le domaine des grands modèles. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney. Selon des sources bien informées, le fondateur de Xiaomi, Lei Jun, s'inquiète du démarrage tardif de l'entreprise dans le domaine des grands modèles d'IA, car...

La société chinoise d'intelligence artificielle Wu Wen Xin Qiong a annoncé la publication en open source de son dernier modèle d'IA d'apprentissage multimodal pour périphériques : Megrez-3B-Omni. Ce modèle est le premier projet open source de ce type au monde, marquant une avancée innovante de la société dans le domaine de l'IA. Parallèlement, Wu Wen Xin Qiong a également lancé Megrez-3B-Instruct, une version purement linguistique du modèle, afin d'enrichir davantage sa gamme de produits. Fondée en mai 2023, Wu Wen Xin Qiong est issue d'une équipe de chercheurs du département d'ingénierie électronique de l'université Tsinghua. La société s'engage à créer des solutions efficaces...

Dans le domaine de l'intelligence artificielle, les techniques de post-entraînement deviennent progressivement un moyen important d'améliorer les performances des modèles. Récemment, l'Allen Institute for Artificial Intelligence (AI2) a publié la série de modèles Tülu3, une suite de modèles linguistiques avancés entièrement open source, dont les performances sont comparables à celles de modèles propriétaires tels que GPT-4o-mini. Tülu3 inclut non seulement les données du modèle, le code et la recette d'entraînement, mais également un cadre d'évaluation, visant à stimuler le développement des techniques de post-entraînement pour les modèles open source. Traditionnellement, les modèles uniquement pré-entraînés ne répondent souvent pas efficacement aux besoins des applications réelles et peuvent...

L'Allen Institute for Artificial Intelligence (AI2) a publié OLMoE, un grand modèle linguistique open source conçu pour offrir des performances élevées à faible coût. Ce modèle utilise une architecture de mélange d'experts clairsemé (MoE), avec 7 milliards de paramètres, mais grâce à un mécanisme de routage intelligent, chaque jeton d'entrée n'utilise qu'un milliard de paramètres, permettant un calcul efficace. OLMoE comprend des versions à usage général et finetunées pour les instructions, et prend en charge une fenêtre contextuelle de 4096 jetons. Ses données d'entraînement proviennent de sources variées, notamment Common Crawl, Dolma CC et Wikipédia.

Dans le domaine du développement de jeux, les métamodèles deviennent progressivement un "groupe de réflexion" indispensable, passant de la génération de personnages IA à la construction de scènes, démontrant des capacités complètes. Cependant, la compréhension des scènes de jeu, la reconnaissance d'images et la description du contenu doivent encore être améliorées. L'équipe de recherche de l'Alberta au Canada lance le métamodèle open source VideoGameBunny (VGB), optimisé pour le développement de jeux, doté d'un support multilingue, d'une grande capacité de personnalisation, de puissantes capacités de génération de texte, d'une accessibilité open source, d'une compatibilité avec plusieurs environnements de développement, de nombreux fichiers de modèles et d'un support communautaire actif. VGB prend en charge plusieurs

FLUX.1, une plateforme de grands modèles open source lancée par Robin Rombach, une sommité dans le domaine de la génération d'images par IA, utilise une architecture Vision Transformer à 12 milliards de paramètres. Grâce à des méthodes d'entraînement par correspondance de processus et à l'intégration de positions rotatives, elle surpasse largement les modèles propriétaires comme DALL·E 3, Midjourney V6 et la série SD3. En termes de performances, FLUX.1 excelle dans la restitution sémantique du texte, la qualité de l'image, la cohérence des mouvements, la cohérence et la diversité, voire dans la génération de texte.

Le modèle Llama 3.1, publié par Meta AI, rivalise en termes de performances avec les meilleurs modèles propriétaires, marquant une avancée majeure pour l'IA open source. Il s'agit d'un modèle linguistique de grande envergure de nouvelle génération, optimisé grâce à une pile d'entraînement améliorée et des ressources de calcul GPU à grande échelle, présentant plusieurs points forts techniques. Cela inclut une extension de la longueur du contexte à 128 000 jetons, la prise en charge de 8 langues et des performances exceptionnelles dans plusieurs domaines de test. Grâce à un processus d'apprentissage post-entraînement itératif, le modèle améliore constamment ses performances, notamment en matière de suivi des instructions, de cohérence et de traduction multilingue.

Apple publie le modèle linguistique DCLM-Baseline-7B, un modèle complet open source, pour faire progresser le domaine de l'IA. Ce modèle comprend les données d'entraînement, le traitement des données, l'entraînement et l'évaluation complets, offrant aux chercheurs et aux développeurs une compréhension approfondie et globale. Ses performances sur le test MMLU sont comparables à celles de Mistral-7B-v0.3 et Llama-38B. Basé sur l'architecture Transformer, DCLM-Baseline-7B utilise une conception de pointe et est optimisé pour PyTorch/OpenL.

SemiKong, le premier grand modèle open source de conception de puces au monde, a été lancé lors du Semicon West 2024. Développé conjointement par Aitomatic et FPT Software, SemiKong, basé sur un réglage fin de Llama 3, surpasse les grands modèles généraux en termes de précision, de pertinence et de compréhension des procédés semi-conducteurs. Entraîné en trois phases et doté de 8 milliards de paramètres, ce modèle est spécialement conçu pour les connaissances du secteur des semi-conducteurs, offrant ainsi aux fabricants de puces une plateforme de base puissante pour accélérer l'innovation.

DeepSeek a récemment annoncé la publication d'un modèle open source nommé DeepSeek-Coder-V2. Ce modèle surpasse GPT-4-Turbo en matière de capacités de codage et de mathématiques, et présente des améliorations significatives en termes de prise en charge multilingue et de longueur de contexte. Basé sur l'architecture du modèle DeepSeek-V2, DeepSeek-Coder-V2 utilise une architecture de mélange d'experts (MoE), spécialement conçue pour améliorer les capacités de codage et de raisonnement mathématique.

Mistral AI, créée il y a seulement six mois, a bouclé deux tours de financement de 113 millions et 415 millions de dollars, faisant grimper sa valorisation de 260 millions à 2 milliards de dollars. Mistral AI a publié le modèle open source Mixtral 8x7B, dont les performances rivalisent avec celles de GPT-4. Considérée comme « l'OpenAI française », Mistral AI bénéficie du soutien du président Macron. Grâce à son approche open source et à son positionnement différencié, Mistral AI vise à concurrencer OpenAI.

OrionStar a publié le modèle OrionStar-Yi-34B-Chat, basé sur le projet open source Lingyi Wanwu, utilisable gratuitement à des fins commerciales. Ce modèle a obtenu d'excellents résultats sur les deux benchmarks d'évaluation en chinois C-Eval et C-MMLU. OrionStar-Yi-34B-Chat est l'une des excellentes alternatives open source à ChatGPT. Le modèle offre les avantages d'être performant, entièrement open source et utilisable gratuitement à des fins commerciales. OrionStar est un fournisseur de solutions de services d'intelligence artificielle, dont les principaux produits sont...

Le PDG d'Alibaba Group, Wu Yongming, a annoncé lors de la Conférence mondiale sur Internet 2023 qu'Alibaba allait publier un grand modèle de 72 milliards de paramètres en open source. Il s'agirait du plus grand modèle open source en termes de nombre de paramètres en Chine. Cette initiative souligne la position de leader d'Alibaba Cloud dans le domaine des grands modèles. La publication en open source de ce grand modèle stimulera le développement et les applications de l'intelligence artificielle. D'autres entreprises ont également publié leurs propres grands modèles open source, et la compétition dans le domaine de l'IA s'intensifie.

Zhonglian Consumer Finance a lancé « Zhonglian Zhilu », le premier grand modèle open source de 13 milliards de paramètres du secteur de la finance à la consommation, un modèle reconnu pour ses connaissances générales. Ce modèle, précis et doté d'une expertise financière, répond aux besoins de personnalisation, améliore l'efficacité et réduit les coûts. Il sera utilisé dans des domaines spécifiques tels que la gestion des risques, la génération de code et l'amélioration des opérations, et continuera d'explorer les technologies des agents intelligents et l'éthique technologique. Le modèle open source « Zhonglian Zhilu » de Zhonglian Consumer Finance figure dans les classements C-Eval et C...

Kunlun Wanwei a publié la série de modèles linguistiques de grande taille Skywork-13B, un modèle open source comprenant plusieurs dizaines de milliards de paramètres. Il est entraîné sur un ensemble de données chinois de très grande taille et de haute qualité. Il inclut deux modèles : Skywork-13B-Base et Skywork-13B-Math. L'utilisation commerciale sera bientôt entièrement ouverte, ce qui réduira le seuil d'entrée pour les entreprises. Cela fournira un support technique pour les applications de modèles linguistiques de grande taille et le développement de la communauté open source.